热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

NLP+VS=>ImageCaption︱自动生成图像标题技术论文+相关项目

读聪明人的笔记,是不是也能变聪明呢?ImageCaption是一个融合计算机视觉、自然语言处理和机器学习的综合问题,它类似于翻译一副图片为一段描述文字。ImageCaption问题

读聪明人的笔记,是不是也能变聪明呢?

Image Caption是一个融合计算机视觉、自然语言处理和机器学习的综合问题,它类似于翻译一副图片为一段描述文字。
Image Caption问题可以定义为二元组(I,S)的形式, 其中I表示图,S为目标单词序列,其中S={S1,S2,…},其中St为来自于数据集提取的单词。训练的目标是使最大似然p(S|I)取得最大值,即使生成的语句和目标语句更加匹配,也可以表达为用尽可能准确的用语句去描述图像。

Image Caption主要研究分为以下几个方向:

1、用单独的CNN来获取图像的特征,然后,利用这些特征进行生成句子(排序,检索,生成);
2、将CNN获取的特征和句子特征联合嵌入到一个空间内,然后从中进行选择最优描述;
3、利用一些全新的机制,将CNN和RNN结合,目的在利用CNN的全局特征或者局部特征来指导描述的生成。
——以上三种类似神经网络翻译——-
4、使用模板的方法,填入一些图像中的物体;
5、使用检索的方法,寻找相似描述。这两种方法都使用了一种泛化的手段,使得描述跟图片很接近,但又不那么准确。

(博客:image caption:Show, Attend and Tell: Neural Image Caption Generation with Visual Attention )
.

1 NIC——最简版encoder-decoder

Vinyals O, Toshev A, Bengio S, et al. Show and tell: A neural image
caption generator[J]. Computer Science, 2015:3156-3164.

用CNN来学图像特征,全连接层后接LSTM,让其学写描述句子。

效果:
《NLP+VS=>Image Caption︱自动生成图像标题技术论文+相关项目》&#8221; /></p><p>当前大多数的Image Caption方法基于encoder-decoder模型。其中encoder一般为卷积神经网络,利用最后全连接层或者卷积层的特征作作为图像的特征,decoder一般为递归神经网络,主要用于图像描述的生成。 <br /> 由于普通RNN存在梯度下降的问题,RNN只能记忆之前有限的时间单元的内容,而LSTM是一种特殊的RNN架构,能够解决梯度消失等问题,并且其具有长期记忆,所以一般在decoder阶段采用LSTM.</p><p><img layer-src= var cpro_id = "u6885494";

推荐阅读
author-avatar
非策不劃小子白
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有